AI新动向|多国发布有关人工智能的指南或报告（附解读）

文/ 王捷律师团队 

W&W国际法律团队

专注互联网出海法律实务：

W&W国际法律团队深耕海外多地区多条业务线，通过多年来积累的出海法律服务经验以及资源优势，结合本土化的合规经验与国际化的思维，致力于为出海互联网企业提供专业的一站式法律解决方案，为逐鹿海外的互联网企业提供优质及多元化的法律服务，为各类新型业务搭建运营合规体系及提供有效的风险评估及合规解决方案。

互联网前沿领域法律服务：

W&W国际法律团队深耕出海法律实务的同时，也紧跟互联网前沿动态，可以为互联网企业提供前沿领域的法律服务，为企业开拓新的业务领域保驾护航，比如AIGC产品全链路合规法律服务，包括AI与数据合规， AIGC与知识产权布局、侵权风险防范，内容审核标准制定等。

覆盖以下行业领域：

物联网、智能家居、智能汽车、车联网、芯片制造、Web3.0、NFT、AI、电子设备及智能终端制造、数字化安全、IOT、云计算与服务、社交网络平台、电子商务、短视频视听直播、网络游戏、人力资源等行业领域。

（此处仅展示部分内容，如有任何需求，请尽管与我们联系。）

引言

鉴于当前世界各国在科技与网络领域的监管呈现复合型趋势，W&W地区观察专题将触及个人信息保护、数据合规、网络安全、人工智能、数字经济等板块，跟踪并解读全球主流出海目标国在上述领域中的立法、监管动向，提示企业合规要点，为企业开展出海业务、部署国内合规工作提供参考。

01

美国：NIST发布有关操纵人工智能系统的网络攻击的报告

2024年1月4日，美国国家标准与技术研究院（NIST）发布了NIST AI 100-2 E2023《对抗性机器学习（Adversarial Machine Learning）：攻击和缓解的分类和术语》。该报告是NIST支持可信人工智能开发工作的一部分，旨在协助NIST的人工智能风险管理框架搭建。该报告指出，数据本身可能不值得信赖，在人工智能系统的训练期间以及之后人工智能与物理世界交互的过程中，第三方有机会破坏数据。由于人工智能的数据集太大而无法成功监控和过滤，因此无法免除人工智能被误导的风险。

该报告考虑了四种不同类型的网络攻击：

•规避（evasion）——部署人工智能系统后，此类攻击试图改变输入以改变系统的响应方式；

•中毒（poisoning）——在人工智能系统的训练过程中，此类攻击会引入损坏的数据，例如在对话中添加不适当的语言；

•隐私（privacy）——在部署阶段，此类攻击试图了解有关人工智能或其训练数据的敏感信息，包括对人工智能模型进行逆向工程以找到其弱点；

•滥用（abuse）——此类攻击涉及将不正确的信息插入到源中，例如网页或在线文档，然后由人工智能吸收。

垦丁W&W简评

在人工智能系统训练及与外界交互时，可能因第三方的攻击而出现故障甚至被操控，而攻击者可能利用漏洞攻击人工智能系统，基于此背景，NIST发布的这一指南旨在帮助人工智能开发人员和用户了解他们可能预期的攻击类型以及缓释这些攻击的方法。但目前尚不存在万无一失的方法来保护人工智能系统免受误导，人工智能系统开发人员应当保持警惕各类攻击。

02

印度尼西亚：Kominfo 发布人工智能道德通告

印尼通信和信息部（Kominfo）于2023年12月22日宣布，他们于同年12月19日签署了《2023年第9号通告》，涉及人工智能伦理。Kominfo特别指出，该通告包含三项政策，即伦理价值观、伦理价值观的实施以及人工智能的使用和发展责任。该通告将适用于公共和私营部门中从事基于人工智能的编程活动的企业。

该通告的主要规定是什么？

该通告规定了包括包容性、可访问性、安全性和人性化、以及在AI使用中的可信度和可问责性等价值观。该通告具体规定了实施AI伦理价值观的三种主要途径，包括：

• 将AI作为人类活动的支持，特别是增加用户在解决问题和工作中的创造力；

• 实施保护隐私和数据的措施，以防止对个人造成伤害；

• 监督使用，以防止政府、组织者和用户滥用AI。

Kominfo还强调了公共和私营部门实现其人工智能发展和使用责任的三种方式，包括：

• 确保AI不被用作人类的政策制定者或决策者；

• 开发者提供与AI技术的发展相关的信息，以防止由此技术产生的负面影响和损失；

• 关注AI开发中的风险管理和危机管理。

垦丁W&W简评

伦理风险是人工智能系统的主要风险之一。因为训练数据库的不完整或者算法缺陷，AI生成内容可能带有歧视性或有失公正性。Kominfo发布的通告旨在为企业在开发和利用人工智能的过程中设立道德准则提供参考。一方面，企业需要制定AI应遵循的伦理准则，限制AI进行不良内容、歧视、偏见等敏感问题的内容输出，必要时还需要进行人工筛选和内容清洗；另一方面，要确保AI不能主导人类决策，开发者需要提供与人工智能技术开发相关的信息，减轻负面影响。

03

日本：AI战略委员会发布AI运营商指南草案

2023年12月21日，日本人工智能战略委员会发布了《人工智能运营商指南》草案作为第七届人工智能战略会议材料的一部分。指南草案明确，开发、提供和使用人工智能的运营商应参考该指南，并确保恰当的人工智能治理以遵守该指南。据此，指南草案明确了人工智能开发者、提供商和用户的范围，概述了每一类运营商的具体要求。

指南草案建议人工智能开发人员采取以下措施：

• 合理的数据学习（根据法律法规进行适当的收集和处理）；

• 确保开发有助于合理使用（考虑是否适合人工智能模型）；

• 引进和开发后采用安全应对机制（security countermeasure mechanisms），关注最新趋势和风险应对措施；

• 向相关利益相关者提供信息；

• 记录开发相关信息。

指南草案还指出，人工智能提供商应：

• 促进正确使用（在人工智能开发者设定的范围内使用人工智能）；

• 具备文档；

• 采取漏洞对策（vulnerability countermeasures）；

• 向相关利益相关者提供信息以及文件服务条款。

此外，指南草案规定人工智能用户应：

• 确保在安全的前提下适当使用；

• 使用输出结果时要注意偏见并负责任地做出判断；

• 注意侵犯隐私的行为；

• 实施安全措施；

• 向相关利益相关者提供信息；和

• 利用根据法规要求提供的文件。

垦丁W&W简评

值得注意的是，在日本此次发布的《人工智能运营商指南》草案中，提到了与欧盟类似的“按人工智能系统的风险大小进行分级规制”的思路。草案指出，人工智能的利用，根据其领域及其利用形态，对社会产生的风险不同。拥有过大的社会风险的人工智能系统的利用可能会被禁止，但另一方面，采取过度的对策，有可能会阻碍人工智能发展。可见，日本现今的人工智能治理思路是预先了解人工智能及其在对应领域的应用所产生的风险，并采取与风险大小相契合的应对方式。

04

沙特阿拉伯：SDAIA发布生成式人工智能指南

2023年12月20日，沙特数据和人工智能管理局（SDAIA）发布生成式人工智能指南，以提高人们对人工智能技术重要性的认识。

SDAIA的生成式人工智能指南包含哪些内容？

生成式人工智能指南包括：

• 生成人工智能的组成部分的总结；

• 开发生成式人工智能模型的步骤概述；

• 使用生成式人工智能的好处；

• 采用生成式人工智能的基本支柱；

• 分析生成式人工智能影响。

生成式人工智能的优势，包括：

• 通过提高员工完成任务的能力来提高生产力；

• 通过提供更好的定制化用户体验来改善服务

• 通过自动化各领域的重复性任务和操作提高效率，并降低自动化成本；

• 通过为产品或服务提供新创意来加强创新。

垦丁W&W简评

SDAIA发布的生成式人工智能指南主要涉及对生成式人工智能的组成部分、适用案例、优势、及其具体应用和影响的说明，表明了沙特对人工智能技术以及其市场价值的重视。但本指南并没有设置对生成式人工智能的具体监管规则。

主编介绍

王 捷 律师

垦丁律师事务所合伙人、广州联合创始人、执行主任

W&W国际法律团队创始人

荣登律商联讯（LexisNexis）2023「40位40岁以下的法律精英」榜单

业务领域：

个人信息保护与全球数据合规、数据合规、互联网与网络法实务合规、企业出海合规、网络安全

王律师持有CIPP/E（国际信息隐私专家认证/欧盟）、区块链应用操作员资格证书、数据安全师、数据合规官资格证书，是联合国世界丝绸之路委员会专家，中国国际贸易促进委员会深圳调解中心专家调解员，广东省法学会信息通讯法学常务理事，荷兰RuG国际经济法与商法硕士。

王律师曾在阿里巴巴大文娱集团、国际律所与海外仲裁委员会工作积累了12年+科技型公司实务经验，具备中外律所从业背景。专业能力模块包括产品风险管控、业务流程搭建、竞对攻防布局、政府监管合规、海外公司治理等。王律师已为多家头部与一线的知名互联网公司、大中型外资企业及大型国企提供专业法律服务，行业覆盖物联网、智能终端制造、IOT、云计算与服务、社交网络平台、电子商务及平台、智能汽车与车机系统、芯片制造业、网络游戏、Web 3.0、NFT、AI、以及GPT等新兴领域。

王律师擅长解决由互联网、数据及智能技术引发的数据安全风险与合规解决方案落地，包括数据保护与合规、产品风险管控、业务流程搭建、风险分析评估、政府监管合规、竞对攻防布局，已为各类涉互联网企业拓展全球市场提供法律支持，尤其擅长为企业出海欧美、东南亚、印度、日韩、中东、中国港澳台地区等新兴及重要市场提供有效的合规解决方案与落地支持。

同时，王律师独著《Comparison of Various Compliance Points of Data Protection Laws in Ten Countries/Regions》，在全球最高分的六篇论文中，荣获国际知名隐私组织FPF第 12 届政策制定者年度隐私论文奖，该文章同时被评为年度隐私政策制定者“必读”文章。其耕笔的多篇互联网与数据合规文章收录于国际知名专业数据库。

联系方式：[e-mail]

[phone] 

推荐阅读：